本文为2022年最受智源社区小伙伴喜爱的文章,根据文章质量和热门程度等维度计算得出。还有AI大佬的全年总结盘点总结,也一并推荐给你。虎年除旧,兔年迎新,藉此机会、智源编辑组全员谨祝大家新春快乐!
智源社区20篇最热文章推荐
2022 summary
2022盘点李飞飞Manning和Percy Liang分享
https://hub.baai.ac.cn/view/227992022盘点NVIDIA AI科学家Jim Fan分享:2022年AI十大焦点
https://hub.baai.ac.cn/view/2290012篇推荐机器学习论文(Meta AI 技术产品营销经理、DAIR.AI 创始人Elvis S. )
https://hub.baai.ac.cn/view/2280932篇推荐AI论文(Mila在读博士Louis Bouchard)
https://hub.baai.ac.cn/view/2279820篇推荐AI论文(CMU在读博士David Chuan-En Lin)
https://hub.baai.ac.cn/view/229832023年度展望,吴恩达、Bengio等6位AI大佬分享
https://hub.baai.ac.cn/view/22916https://hub.baai.ac.cn/view/22902https://hub.baai.ac.cn/view/23027最佳论文报告分享,2022智源「青源LIVE」集锦
https://hub.baai.ac.cn/view/23155AI具备创造力(AI gets creative)入选2022年十大科学突破(Breakthrough of the Year),涵盖了今年AI领域的重要成果AIGC和AI for Science:DALL-E为代表的文生图模型;AI设计蛋白质;AlphaTensor为代表的算法设计系统;AlphaCode为代表的AI编程系统。
这是继2021年AlphaFold2成规模预测蛋白质结构(年度突破)、2020年AlphaFold代表的AI首次精准预测蛋白质三维结构、2019年AI赢得德扑比赛之后,AI领域相关成果连续第四年入选Science十大年度突破。https://www.science.org/content/article/breakthrough-2022https://hub.baai.ac.cn/view/22578Science|DeepMind推出AlphaCode这是一款用 12 种编程语言对 8600 万个程序进行预训练的 Transformer,并针对编码竞赛的内容进行了微调。通过推理,它产生了一百万种可能的解决方案,并过滤掉了不佳的解决方案。通过这种方式,它在 10 次编程竞赛中击败了一半以上的参赛者。
https://www.deeplearning.ai/the-batch/competitive-coder/https://hub.baai.ac.cn/view/22350Nature|AI为人类开药方:准确预测9000名癌症患者适用药物,来自华人团队提出一种新型的上下文自编码模型,可以预测不同患者对药物的特异性反应。在传统模式下,新药从开发、试验、到完全上市,中间需要近10年的时间,而AI能够利用数据进行预测,将大幅缩短新药上市时间,降低成本。
https://www.nature.com/articles/s42256-022-00541-0
https://hub.baai.ac.cn/view/21662Science|蛋白质设计革命ProteinMPNN华盛顿大学医学院的生物学家David Baker设计了一种生成氨基酸序列的新算法ProteinMPNN,可以在几秒钟内创建出蛋白质分子(之前需要几个月),准确率也非常高。通过这些「全新」蛋白质,也许我们会开发出更多疫苗,加快治疗癌症研究,研发出碳捕获工具,和全新的可持续生物材料。
https://www.science.org/doi/10.1126/science.add2187https://www.science.org/doi/10.1126/science.add1964https://hub.baai.ac.cn/view/20498Science|DeepMind的AI智能体DeepNash战胜专业级人类玩家DeepMind的AI智能体DeepNash,在西洋陆军棋(Stratego)中战胜专业级人类玩家,这一惊人表现是在没有部署任何搜索方法的情况下实现的,这是 AI 之前在棋类游戏中取得多个里程碑式成就的关键。DeepNash 使用了一种博弈论的、无模型的深度强化学习方法 R-NaD,无需搜索,便能以从头开始的自我博弈方式来学习如何掌握游戏策略。www.science.org/doi/10.1126/science.add4679https://hub.baai.ac.cn/view/22170Nature|DeepMind推出AlphaTensorDeepMind 提出了 AlphaTensor,表示它是第一个可用于为矩阵乘法等基本任务发现新颖、高效且可证明正确的算法的人工智能系统。提高基础计算算法的效率会产生广泛的影响,矩阵乘法就是这样一项原始任务,发生在许多系统中。使用机器学习自动发现算法提供了超越人类直觉并超越当前最佳人工设计算法的前景。AlphaZero的深度强化学习方法AlphaTensor,是首个用于发现任意矩阵乘法的有效且证明正确的算法。智能体AlphaTensor 发现的算法在许多矩阵大小上都优于最先进的复杂性。特别相关的是有限域中 4 × 4 矩阵的情况,AlphaTensor 的算法在 50 年间首次改进了 Strassen 的两级算法。
https://www.nature.com/articles/s41586-022-05172-4https://hub.baai.ac.cn/view/20915DeepMind :AlphaZero 的黑箱打开了AlphaZero 的无需使用任何人工设计的启发式算法,也不需要观看人类下棋,而是完全通过自我对弈进行训练。Demis Hassabis 与 DeepMind 的同事以及谷歌大脑的研究员合作了一项研究,在 AlphaZero 的神经网络中找到了人类国际象棋概念的证据,展示了网络在训练过程中获得这些概念的时间和位置,并发现 AlphaZero 与人类不同的下棋风格。该论文已发表于 PNAS。https://www.pnas.org/doi/epdf/10.1073/pnas.2206625119https://hub.baai.ac.cn/view/21739POINT-E:OpenAI开源文本生成点云系统,单GPU迅速生成3D模型论文探索一种替代性3D物体生成方法,该方法在单个GPU上只需1-2分钟就能生成3D模型。所提出方法首先使用文本到图像的扩散模型生成一个单一的合成视图,然后使用第二个扩散模型生成一个3D点云,该模型以生成图像为条件。虽然该方法在采样质量方面仍未达到最先进的水平,但采样速度要快一到两个数量级,为一些使用情况提供了实际的权衡。
https://arxiv.org/abs/2212.08751https://hub.baai.ac.cn/view/22683Bengio、LeCun 等发布 NeuroAI 白皮书:NeuroAI 将催化下一代人工智能革命白皮书集结了 Yoshua Bengio、Yann LeCun 两位图灵奖获得者,以及一批致力于机器学习与神经科学结合研究的科学家。他们呼吁:为了加快人工智能的进步并发挥其巨大的潜力,我们必须致力于 NeuroAI 的基础研究。
提出具身图灵测试(The Embodied Turing Test )作为 NeuroAI 的终极挑战,核心在于高级感觉运动能力,具体包括与世界互动、动物行为的灵活性、能源效率等特征。还设想了应对具身图灵测试的路线,从进化史角度把 AI 系统的具身图灵测试分解为从中低级生物进阶到更复杂生物的智能。
论文地址:
https://arxiv.org/ftp/arxiv/papers/2210/2210.08340.pdf阅读详情:
https://hub.baai.ac.cn/view/21154
OpenAI CEO Sam Altman谈AI的下一个发展阶段AI助力多个行业的生产服务,也必将催生出无数新企业。从大模型的商业化机会、AI+应用再到AI发展方向,Sam Altman在这场对话中分享了自己的见解。
阅读详情:
https://hub.baai.ac.cn/view/22536
State of AI | 2022年人工智能现状报告State of AI的人工智能年度报告系列已进入第五年,由行业和研究领域的领先人工智能从业者审查。作者是剑桥大学的两位研究人员Nathan Benaich 和 Ian Hogarth。State of AI的人工智能年度报告系列由行业和研究领域的领先人工智能从业者审查,包括科研、产业、政治、安全性、预测五个方向:新的独立研究实验室正在迅速开源主要实验室的闭源输出;主要 AI 研究实体的安全意识;中美人工智能研究差距持续扩大;人工智能驱动的科学研究继续带来突破。报告地址:
https://docs.google.com/presentation/d/1WrkeJ9-CjuotTXoa4ZZlB3UPBXpxe4B3FMs9R9tn34I/edit#slide=id.g164b1bac824_0_2748阅读详情:
https://hub.baai.ac.cn/view/20957
Andrej Karpathy关于AGI、Optimus、软件2.0时代访谈特斯拉前AI总监Andrej Karpathy精彩访谈录。Andrej Karpathy在著名AI播客主持人Lex Fridman长达三个小时的访谈节目中,谈及了他对于Transformer、神经网络、大规模语言模型、AGI的理解,以及对特斯拉、Optimus的看法。他还讲到了对宇宙人生、外星生物的畅想,以及包括他个人专注、近乎疯狂的日常工作模式。
视频地址:https://www.youtube.com/watch?v=cdiD-9MMpb0
阅读详情:https://hub.baai.ac.cn/view/21726
吴恩达:机器学习的六个核心算法吴恩达认为不断学习与更新基础知识是十分重要的,算法与概念是许多机器学习模型的核心思想。基于这个思想,吴恩达在其创办的人工智能周刊《The Batch》上更新了这篇博文,总结了机器学习领域多个基础算法的历史溯源,以及机器学习模型的核心思想。调研了六种基础算法以及详细说明:线性回归、逻辑回归、梯度下降、神经网络、决策树与k均值聚类算法。
文章地址:
https://read.deeplearning.ai/the-batch/issue-146阅读详情:
https://hub.baai.ac.cn/view/17723
符尧:追溯ChatGPT各项能力的起源一个全面的技术路线图,论述了ChatGPT 是如何变得强的,逐步剖析了ChatGPT 的突现能力(Emergent Ability),追溯这些能力的来源,说明 GPT-3.5 模型系列以及相关的大型语言模型是如何一步步进化成目前的强大形态。
文章地址:https://hub.baai.ac.cn/view/22656
Geoffrey Hinton访谈:不出五年,我们就会破解大脑的运作机制,但不是通过反向传播Geoffrey Hinton曾获得2018年图灵奖的Hinton,被称为「深度学习三巨头」之一,是人工智能史上最重要的学者之一,他的论文被引用了50多万次。UC伯克利教授、深度学习专家Pieter Abbeel在其播客节目《机器人大脑》(Robot Brains)中,对Geoffrey Hinton进行了一次访谈。Hinton讲述了他从学术界到谷歌大脑的工作经历、学习心理学和当木匠的经历,以及可视化技术t-SNE算法背后的历史,并就一些问题发表了他的观点,包括:现有的神经网络和反向传播算法与大脑的运作方式有何不同;为什么我们需要无监督的局部目标函数;睡眠和玻尔兹曼机的功能是什么;为什么培育计算机比制造计算机更好;为什么需要负面数据;如今的大规模语言模型是否真正理解了语言。https://www.youtube.com/watch?v=2EDP4v-9TUAhttps://hub.baai.ac.cn/view/17824Stability AI 首席信息官:真正开放AI的转折点是现在本文作者Daniel Jeffries,是Stability AI(研发Stable Diffusion的公司) 的首席信息官,他分享了我们正处于一个转折点这一鲜明话题:Stable Diffusion是第一个以开源形式发布的真正先进的模型,该模型在超级计算机上使用4000个A100s芯片进行训练,它标志着人工智能的下一个转折点:开放基础模型(foundation models)的时代的到来。https://danieljeffries.substack.com/p/the-turning-point-for-truly-open?sd=pfhttps://hub.baai.ac.cn/view/20784Judea Pearl访谈:因果推断的过去、现在与将来因果领域全景图。图灵奖得主、因果科学之父 Judea Pearl 分享了因果推断领域的问题:包括从因果关系到反事实、因果图、反事实和潜在结果,以及非因果但有趣的问题。由宾夕法尼亚大学出版社出版,发布在Observational Studies杂志上。
访谈原文:https://muse.jhu.edu/article/867087
阅读详情:https://hub.baai.ac.cn/view/21050OpenAI CEO Sam Altman谈DALL•E 2的更深远影响
Sam认为一个新的计算机界面趋势即将形成的例子:你用自然语言或上下文线索说出想要的东西,计算机就会去做。我们为代码和现在的图像生成提供了这种服务;这两种服务都会变得更好。以及对Copilot理解:是一个帮助编码员提高生产力的工具,但离能够创建一个完整的程序仍然很远。DALL-E 2是一个能帮助艺术家和插图画家更有创造力的工具,但它也能创造一个 "完整的作品"。
原文地址:https://blog.samaltman.com/dall-star-e-2
阅读详情:https://hub.baai.ac.cn/view/16224
AI art 生成模型 Stable Diffusion 最全面介绍
作者西乔汇总Stable Diffusion 相关内容介绍:从如何注册、参数设置到使用种子改进作品、著作权归属、以及背后的研发团队、以及模型生成效果展示等,非常全面值得一读。
文章地址:https://hub.baai.ac.cn/view/19979论文总引用量已超过10万次,Edward H. Sargent分享「写论文10大技巧」
学术大牛Edward H. Sargent为多伦多大学电子和计算机工程系教授,还是加拿大皇家科学院院士、加拿大工程院院士。截至目前,Sargent教授已发表16篇Nature和14篇Science。除30篇正刊之外,他发表的Nature系文章高达139篇。据谷歌学术统计,他的论文总引用量已超过100000次。文章分享了10点关于写、发论文的锦囊妙计。阅读详情:https://hub.baai.ac.cn/view/21989